MIRAGE: Defending Long-Form RAG Against Misinformation Pollution
MIRAGE：无需训练的模型无关防御，抵抗检索增强生成中的错误信息污染
🧭 RAG 错误信息防御与事实性恢复
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) · INSAIT, Sofia University “St. Kliment Ohridski”
提出一种训练无关、模型无关的防御方法，通过跨文档声明图和多源一致性门控恢复RAG事实性
📌 工作参考价值（4 点）
- 在电商搜索/推荐系统里，若用 RAG 增强物品描述或评论摘要，可借鉴 MIRAGE 的多源一致性验证：对多路召回（不同数据库、不同站点）抽取原子声明，用 NLI 构建声明图，仅保留多文档支持的声明，减少单品描述中的虚假信息。
- 面向 Agent 系统中检索知识冲突的应对：当检索到的证据相互矛盾时，可以设置“防御门”退回参数化回答或拒答，避免 Agent 被污染信息误导，提升决策可靠性。
- 污染检测的工程化思路：定义最小编辑的污染类型（如明确错误、矛盾、误导、捏造），可用于线上 A/B 测试或离线评测，量化检索或生成环节对输入噪声的鲁棒性。
- 无需训练、模型无关的设计使其能即插即用到现有 RAG pipeline，适合快速迭代的工业场景，无需重训练或更换生成模型。